Phường 2 được thành lập vào ngày 14 tháng 5 năm 1986 trên cơ sở một phần diện tích và dân số của phường Thắng Tam cũ[1]. Khi mới thành lập, phường trực thuộc đặc khu Vũng Tàu - Côn Đảo.

Ngày 12 tháng 8 năm 1991, đặc khu Vũng Tàu - Côn Đảo giải thể[4], Phường 2 trực thuộc thành phố Vũng Tàu, tỉnh Bà Rịa - Vũng Tàu.

Ngày 24 tháng 12 năm 2004, Chính phủ ban hành Nghị định 212/2004/NĐ-CP[3]. Theo đó:

• Điều chỉnh 127,78 ha diện tích tự nhiên và 712 người của Phường 1 về Phường 2 quản lý
• Thành lập phường Thắng Tam trên cơ sở 251,50 ha diện tích tự nhiên và 13.410 người của Phường 2.

Sau khi điều chỉnh địa giới hành chính, Phường 2 còn lại 293,43 ha diện tích tự nhiên và 11.122 người.